The Kebenaran Universal dari Linearitas mungkin merupakan cara paling kuat dalam teori probabilitas. Ini memungkinkan kita menghitung ekspektasi jumlah variabel acak hanya dengan menjumlahkan ekspektasi masing-masing—tidak peduli apakah variabel-variabel tersebut independen, berkorelasi, atau saling mengecualikan.
1. Dasar dan Proposisi 2.1
Untuk memahami mengapa ekspektasi berperilaku secara linear, kita melihat Hukum Statistik Tanpa Kesadaran (LOTUS) untuk sistem multivariat. Proposisi 2.1 menyatakan bahwa jika $X$ dan $Y$ memiliki fungsi massa probabilitas bersama $p(x, y)$, maka ekspektasi dari fungsi apa pun $g(X, Y)$ adalah:
$$E[g(X, Y)] = \sum_{y} \sum_{x} g(x, y) p(x, y)$$
Untuk variabel kontinu dengan PDF bersama $f(x, y)$, bentuk integral yang setara adalah:
$$E[g(X, Y)] = \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} g(x, y) f(x, y) dx dy$$
2. Prinsip Linearitas
Dengan menerapkan LOTUS pada fungsi $g(X, Y) = X + Y$, kita mendapatkan teorema utama dari pelajaran ini: $E[X + Y] = E[X] + E[Y]$. Ini secara alami diperluas ke kumpulan hingga apa pun:
$E\left[\sum_{i=1}^n X_i\right] = \sum_{i=1}^n E[X_i]$
Ini bersifat 'universal' karena tidak memerlukan asumsi tentang distribusi bersama. Baik variabel independen maupun sangat bergantung, rata-rata jumlah tetap sama dengan jumlah rata-rata.
Contoh 2a: Masalah Ambulans
Pertimbangkan kecelakaan di lokasi $X$ di jalan panjang $L$ dan ambulans di $Y$, di mana $X, Y \sim U(0, L)$ dan saling independen. Gunakan LOTUS multivariat untuk mencari $E[|X-Y|]$:
PDF bersama adalah $f(x, y) = 1/L^2$ untuk $0 \le x, y \le L$.
$$E[|X-Y|] = \int_0^L \int_0^L |x-y| \frac{1}{L^2} dx dy = \frac{L}{3}$$
3. Monotonitas dan Batasan
Ekspektasi mempertahankan urutan variabel acak. Jika $X \ge Y$ untuk semua hasil, maka $E[X] \ge E[Y]$. Ini mengikuti dari Contoh 2b: jika $X - Y \ge 0$, maka $E[X - Y] \ge 0$. Selain itu, jika suatu variabel dibatasi sehingga $P\{a \le X \le b\} = 1$, maka dapat disimpulkan bahwa $a \le E[X] \le b$.
4. Rata-Rata Sampel (Contoh 2c)
Misalkan $X_1, \dots, X_n$ adalah sampel dari distribusi dengan rata-rata $\mu$. Rata-rata sampel didefinisikan sebagai:
$$\bar{X} = \sum_{i=1}^{n} \frac{X_i}{n}$$
Karena linearitas, $E[\bar{X}] = \frac{1}{n} \sum E[X_i] = \frac{n\mu}{n} = \mu$. Nilai ekspektasi dari rata-rata sampel adalah $\mu$, membuktikan bahwa ini adalah penduga tak bias.
- Semua $X_i$ adalah variabel acak non-negatif.
- Deretnya konvergen secara absolut: $\sum_{i=1}^\infty E[|X_i|] < \infty$.